Ảnh chùa Khải Tường do Emile Gsell chụp trong khoảng năm 1871-1874

Vào khoảng năm Giáp Ngọ (1744), Thiền sư Phật Ý-Linh Nhạc (1725-1821, là người đem chi phái Lâm Tế dòng đạo Bổn Nguyên vào miền Nam Việt Nam trước tiên)[3], vâng lời thầy theo lớp người lưu dân từ Đồng Nai xuống phía Nam. Trên đường đi, nhà sư gặp một tăng sĩ không rõ họ tên, cùng lứa tuổi và họ đã kết thành huynh đệ. Đến nơi ở mới là làng Tân Lộc (có tư liệu viết là làng Hoạt Lộc hay xóm Chợ Đũi), hai nhà sư cùng khai phá rừng và dựng lên một am lá (khoảng năm 1744) thờ Phật. Vài năm sau, nhà sư vô danh kia tách ra lập am riêng, cách am cũ vài mươi mét, để tiện việc tu hành.

Đến năm Nhâm Thân (1752), Thiền sư Phật Ý-Linh Nhạc tu bổ am lá thành chùa, và đặt tên là chùa Từ Ân, với ngụ ý là "nhờ lòng từ bi và ân huệ của đức Phật mà bá tánh được bình an, tạo được cuộc sống ấm no và hạnh phúc nơi vùng đất mới". Cũng khoảng thời gian đó, nhà sư vô danh cũng tu bổ am lá trước đây thành chùa, và đặt tên là chùa Khải Tường, với ngụ ý là "mở rộng phước lành cho bá tánh" [4]. Vì thế khi thực dân Pháp tiến chiếm Gia Định, họ gọi chùa Khải Tường là chùa Trước (pagode Avancée, về sau còn gọi là pagode Barbé) còn chùa Từ Ân là chùa Sau[5].

Căn cứ một số tư liệu, thì vào ngày 23 tháng 4 năm Tân Hợi (25 tháng 5 năm 1791), Nhị phi Trần Thị Đang (Thuận Thiên Cao Hoàng hậu) sinh Nguyễn Phúc Đảm (về sau là vua Minh Mạng) nơi hậu liêu chùa Khải Tường[6], khi chúa Nguyễn Phúc Ánh đến đây trốn tránh quân Tây Sơn. Năm 1804, để tạ ơn che chở, vua Gia Long (tức vị chúa trên) đã gửi vào dâng cúng một tượng Phật A-di-đà lớn, ngồi trên tòa sen, cao 2,5 m bằng gỗ mít, sơn son thếp vàng.

Năm 1832, kỷ niệm nơi cha mẹ ông từng ở, và cũng là nơi sinh ra ông, vua Minh Mạng sai xuất bạc trùng tu chùa, đồng thời cho "mộ sư đến ở, cấp ruộng tự điền" để lo việc lễ tiết hàng năm [7].

Bốn ngôi chùa bị quân Pháp chiếm làm đồn (màu vàng) nhằm tạo thành "chiến tuyến các ngôi chùa" (lignes des pagodes) để chuẩn bị tấn công Đại đồn Chí Hòa (màu cam) của quân Việt vào tháng 2 năm 1861.

Năm 1858, quân Pháp đánh phá cửa Hàn (Đà Nẵng). Năm sau (1859) lại vào tấn công Gia Định, Pháp chia quân đóng rải rác tại Trường Thi, đền Hiển Trung (pagode aux Mares) và các chùa: Khải Tường (pagode Barbé), Kiểng Phước (pagode des Clochetons), Cây Mai (pagode des Pruniers).

Riêng chùa Khải Tường, Đại úy Thủy quân lục chiến Pháp tên Barbé nhận nhiệm vụ dẫn quân vào chiếm giữ. Barbé cho đem tượng Phật bỏ ngoài sân, cưỡng bức các sư phải rời chùa. Khi ấy, quan Kinh lược Nguyễn Tri Phương được triều đình cử vào Nam lập Đại đồn Chí Hòa chống Pháp, và chiều ngày 7 tháng 12 năm 1860, quân Việt phục kích giết chết Barbé, khi viên sĩ quan này cưỡi ngựa đi tuần đêm từ chùa Khải Tường đến đền Hiển Trung (trong vòng thành Ô Ma)[8].

Viên Trung úy Hải quân người Pháp là Léopold Pallu[9] đã sang Sài Gòn tham chiến, sau này kể lại:

Buổi chiều hôm đó, Đại úy thủy quân Barbet cưỡi ngựa đi tuần tra như thường lệ. Bọn sát nhân rình rập trong một bụi cây...Ông bị đột kích bằng giáo té ngay xuống ngựa. Bọn An Nam liền cắt đầu, bò qua các bụi rậm và cỏ cao trở về giới tuyến cũ của thành Kỳ Hòa. Sáng hôm sau, người ta thấy phần thân thể còn lại (của Barbet) bị kéo bỏ bên vệ đường; con ngựa bị thương nằm bất động kế bên. Người ta kể lại rằng khi cái đầu ông Đại úy đem đến đặt bên khay trầu của vị tướng An Nam, thì ông này liền đếm tiền thưởng mà không nói gì, rồi sau đó mới thốt ra một lời tiếc thương. Đại úy Barbet có thân hình và một sức mạnh lực sĩ, nhiều người An Nam đều biết mặt ông...[10]

Về sau, theo nhà văn Sơn Nam, thì "chùa Khải Tường trở thành trường học con trai nhằm đào tạo giáo viên. Năm 1880, chùa Khải Tường bị tháo dỡ, trường dời qua cơ sở mới là trường Chasseloup Laubat xây cất xong khoảng 1877"[11]. Khi tháo dỡ, tấm hoành phi "Quốc ân Khải Tường tự" [12] được chuyển về chùa Từ Ân (nay ở đường Tân Hóa, thuộc quận 6, Thành phố Hồ Chí Minh) cất giữ, còn pho tượng Phật kể trên phải dời đi nhiều nơi, sau cùng được đem trưng bày trong Viện bảo tàng Quốc gia Sài Gòn, nay là Bảo tàng Lịch sử Việt Nam - Thành phố Hồ Chí Minh.

Thời gian sau nữa, trên nền chùa bỏ hoang này, Pháp cho xây cất một dinh thự dành cho quan chức trong bộ máy cai trị. Trước năm 1963, dùng làm Trường Đại học Y dược. Sau khi chế độ của Tổng thống Ngô Đình Diệm bị lật đổ, các tướng lãnh cho các cố vấn quân sự đến trú đóng.

Sau ngày 30 tháng 4 năm 1975, cơ sở trên được dùng làm Bảo tàng Chứng tích chiến tranh.